Base de datos

Contiene todos los URL encontrados, y asociados a ellos, la información relativa sobre sus contenidos:
su título
parte de texto
hiperenlaces
descriptores (palabras claves)
etc.

Está actualizada continuamente por los robots que añaden nuevas páginas o referencias, actualizan las que han cambiado y borran las que ya no existen.